Burst-dependent synaptic plasticity can coordinate learning in hierarchical circuits | Nature Neuroscience (2021)
Alexandre Payeur, Jordan Guerguiev, Friedemann Zenke, Blake A. Richards & Richard Naud
https://doi.org/10.1038/s41593-021-00857-x
ヘブの学習則(Hebbian Learning)に加えて、バースト発火(Burst firing)によって、シナプスが長期抑圧(Long Term Depression; LTD)or長期増強(Long Term Potentiation; LTP)されるかが左右されることが知られている
細胞体(soma)におけるバースト発火はCa2+ spike由来であり、このスパイクの生成には尖端樹状突起(Apical dendrite)の活動(NMDA spike）が関与している
尖端樹状突起(Apical dendrite)は皮質の回路において、高次領域からのFeedbackのシグナルを受け取っている（トップダウン(Top-Down)）
以上のことから、
FBシグナルが神経回路の学習方向をガイドすることができると考えられる
重みの更新方向を例えば高次領域からのエラーシグナルで決める
教師あり学習(Supervised Learning)
これを教師なし学習(Unspervised Learning)に取り入れたのが、Local plasticity rules can learn deep representations using self-supervised contrastive predictions | arXiv (2021)
この発想をもとに、シミュレーションしてみると、local learning/online learningを守りながら貢献度分配問題(Credit assignment problem)を解決できる
Taskによっては誤差逆伝播法(Back-Propagation)を上回る
また、皮質の階層性を真似たシグナル伝達は、短期記憶(Short Term Memory)を考慮することで解決できる
通常、トップダウン(Top-Down)/ボトムアップ(Bottom-Up)のシグナルは単一細胞の中で混ざってしまうが、
それぞれバースト発火(Burst firing)の頻度と通常の発火頻度という２つで別々の経路を考えると、これらを同時に処理することができる
このとき、Top-Downは短期増強、Bottom-upは短期抑圧という仮定をしている
Naa_tsure.iconstaticな予測に限定されているのと、皮質が教師あり学習(Supervised Learning)をしているというのはこのモデルの限界を感じる